La inteligencia artificial sigue avanzando en múltiples campos a pesar de las alertas de los expertos. Es inevitable que la IA termine colándose en mil y un sistemas para realizar determinadas mejoras, y hasta Activision Blizzard ha tomado la decisión de apoyarse en esta tecnología para frenar la toxicidad de las partidas multijugador de su saga. La compañía quiere que sus jugadores puedan disfrutar de una experiencia de juego sana sin toparse con malos comportamientos ni actitudes negativas, y a partir de Call of Duty: Modern Warfare 3 se implementará un sistema de moderación de chat de voz impulsado por IA de forma global.
Activision quiere que su entorno multijugador sea lo más sano posible y una IA ayudará a detectar malas conductas de los jugadores
A través de un clásico preguntas y respuestas la compañía ha explicado en detalle cómo funcionará este nuevo sistema de moderación impulsado por IA: "La moderación del chat de voz es administrada y operada por Activision y utiliza el modelo ToxMod de Modulate, impulsado por inteligencia artificial. Este sistema está integrado en títulos seleccionados de Call of Duty y es administrado por Activision.
El chat de voz se monitorea y graba con el propósito expreso de moderación", se explica. "El sistema de moderación por voz de Call of Duty modera según el Código de conducta existente de la compañía y no se tolerarán los chats de voz que incluyan intimidación o acoso". Como veis, con ello se pretenden controlar las situaciones de acoso detectando a aquellos usuarios que se están pasando de la raya.
"La detección ocurre en tiempo real y el sistema clasifica y marca el lenguaje tóxico según el mencionado código de conducta", se puede leer en el comunicado. "Las violaciones detectadas del código de conducta pueden requerir revisiones adicionales de las grabaciones asociadas para identificar el contexto antes de que se determine su aplicación. Por tanto, las acciones que se adopten no serán instantáneas. A medida que el sistema crezca, nuestros procesos y tiempos de respuesta evolucionarán". Es decir, que se tendrá en cuenta en qué tipo de contexto están comunicándose los jugadores y cómo lo hacen. ToxMod es capaz de entender 18 idiomas, incluyendo el español, y es capaz de comprender en qué contexto se está llevando a cabo una conversación.
Esta moderación de chat se aplicará primero a Call of Duty: Modern Warfare 2 (2022) y Warzone en zonas como Norteamérica. Posteriormente, con el lanzamiento de Call of Duty: Modern Warfare 3 el 10 de noviembre (PS4, PS5, Xbox One, Xbox Series X/S y PC), se implementará de forma global.
